标准差

Standard Deviation 方差的平方根；离散程度的同量纲度量

标准差是方差的平方根，用来衡量随机变量或样本数据围绕均值的典型偏离程度。因为方差使用平方单位，标准差把量纲还原到原变量的单位，更便于解释。

若随机变量 $X$ 的方差为 $D (X) = σ^{2}$ ，则标准差为

σ = \sqrt{D (X)} = \sqrt{E [(X - E (X))^{2}]} .

若样本方差为 $S^{2}$ ，则样本标准差为

S = \sqrt{S^{2}} .

给定样本 $x_{1}, \dots, x_{N}$ ，样本均值为

m = \frac{x_{1} + \dots + x_{N}}{N} .

样本方差通常除以 $N - 1$ ：

S^{2} = \frac{1}{N - 1} \sum_{i = 1}^{N} (x_{i} - m)^{2}, S = \sqrt{\frac{1}{N - 1} \sum_{i = 1}^{N} (x_{i} - m)^{2}} .

除以 $N - 1$ 是因为样本均值 $m$ 已经由同一批样本估计，少了一个自由度；在独立同分布抽样下，这样得到的 $S^{2}$ 是总体方差的无偏估计。

例如五个年龄样本为 $18, 17, 18, 19, 17$ ，样本均值是

m = \frac{18 + 17 + 18 + 19 + 17}{5} = 17.8 .

平方离差和为

(.2)^{2} + (- .8)^{2} + (.2)^{2} + (1.2)^{2} + (- .8)^{2} = 2.8 .

因此

S^{2} = \frac{2.8}{4} = 0.7, S = \sqrt{0.7} .

当随机变量 $x$ 的取值 $x_{1}, \dots, x_{n}$ 及概率 $p_{1}, \dots, p_{n}$ 已知时，先计算期望

m = E [x] = p_{1} x_{1} + \dots + p_{n} x_{n} = p \cdot x,

再计算方差和标准差：

σ^{2} = \sum_{i = 1}^{n} p_{i} (x_{i} - m)^{2}, σ = \sqrt{σ^{2}} .

例如新生年龄为 $17, 18, 19$ 的概率分别是 $.2, .5, .3$ ，则

m = (.2) 17 + (.5) 18 + (.3) 19 = 18.1 .

方差为

\begin{aligned} σ^{2} & = (.2) (17 - 18.1)^{2} + (.5) (18 - 18.1)^{2} + (.3) (19 - 18.1)^{2} \\ = .49 . \end{aligned}

所以标准差为

σ = \sqrt{.49} = .7 .

这表示按概率加权后，年龄围绕期望 $18.1$ 的典型偏离量约为 $0.7$ 岁。

当 $σ > 0$ 时，可以把随机变量标准化：

X^{*} = \frac{X - μ}{σ} .

标准化先减去均值 $μ$ ，使中心移动到 $0$ ；再除以标准差 $σ$ ，使离散尺度变成 $1$ 。标准化后的变量满足

E (X^{*}) = 0, D (X^{*}) = 1.

在正态分布、中心极限定理和统计检验中，标准差常用来描述离均值几个标准差的位置。例如标准正态分布的均值为 $0$ 、标准差为 $1$ 。

标准差永远非负： $σ \geq 0$ 、 $S \geq 0$ 。
$σ = 0$ 表示随机变量几乎处处等于均值；样本标准差 $S = 0$ 表示样本值全部相同。
当 $σ = 0$ 时，标准化公式 $(X - μ) / σ$ 会除以 $0$ ，不能直接定义。
相关系数 $ρ_{X Y} = Cov (X, Y) / (σ_{X} σ_{Y})$ 要求 $σ_{X} > 0$ 且 $σ_{Y} > 0$ ；任一变量标准差为 $0$ 时，不能按该公式直接定义相关系数。
标准差受异常值影响，因为它来自平方偏差；需要稳健尺度时可考虑四分位距或绝对偏差等其他指标。